DataSpace: Benchmarking Data Agents for Verifiable Analytics over Heterogeneous Workspaces
DataSpace:面向异构工作区可验证分析的数据智能体基准
🧭 数据智能体多模态分析基准
HKUST(GZ) · Tsinghua University
提出首个统一异构多模态证据发现、完整表格输出与确定性评估的数据智能体基准,最佳准确率仅 66.34%
📌 工作参考价值(4 点)
- 确定性评估器的列对齐、类型精度归一化方法可直接用于推荐系统生成表格结果的自动评估,避免人工对齐局限。
- 多模态 workspace 构建流程(跨语言转换、关系采样、模态路由)可借鉴到商品多模态信息检索的测试集构造。
- 不同 agent harness 带来的 15.36 点性能差异提示:在构建推荐对话智能体时,工具编排与框架选择对效果决定性,需谨慎对比。
- 多模态证据集成和连接操作一致降低准确率的发现提醒:在搜索推荐系统中融合多源异构数据时需设计针对性的对齐与融合机制。